• Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
close
search
  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato
search

##TWEET

Tweet

Inteligência artificial utiliza base de dados que refletem preconceitos e desigualdades

Mais Lidos

  • As tensões surgiram pela primeira vez na véspera do conclave: o decano não mencionou Francisco na homilia e parabenizou Parolin no final

    LER MAIS
  • Especialistas internacionais e nacionais – Andrea Grillo, Maria Cristina Furtado, Faustino Teixeira, Ivone Gebara e Alzirinha Souza – apresentam suas primeiras impressões após a eleição de Robert Francis Prevost, o primeiro papa estadunidense da Igreja

    Papa Leão XIV. Desafios e expectativas. Algumas análises

    LER MAIS
  • Esquerdas governamentais, conciliatórias e apaziguadoras reduziram-se a “salvar o capitalismo dele mesmo” e não conseguem canalizar inconformidade e indignação, tarefa que o fascismo desejado e reivindicado pelas massas tomou para si com sucesso

    A internacional fascista como modo de vida. Entrevista especial com Augusto Jobim do Amaral

    LER MAIS

Vídeos IHU

  • play_circle_outline

    MPVM - 4º domingo de Páscoa – Ano C – A missão de cuidar da vida e cuidar da humanidade

close

FECHAR

Image

COMPARTILHAR

  • FACEBOOK

  • X

  • IMPRIMIR PDF

  • WHATSAPP

close CANCELAR

share

12 Julho 2023

Moacir Ponti diz que IA tende a perpetuar as desigualdades sociais por ter “aprendido da forma errada” algumas de suas informações.

A reportagem é de Julia Valeri, publicada por Jornal da USP, 09-07-2023. 

Em meio à rápida expansão da inteligência artificial (IA), crescem as preocupações com a possibilidade da tecnologia perpetuar e até mesmo intensificar as disparidades sociais. As IAs, como também podem ser chamadas, são cada vez mais empregadas em processos de tomada de decisões cruciais, como seleção de candidatos a emprego, concessão de empréstimos, definição de sentenças judiciais e até mesmo diagnósticos médicos. Porém, a recente identificação de casos em que a IA foi influenciada pela cultura dominante presente nos bancos de dados, contribuindo para a estratificação social e acentuando a desigualdade, levanta questionamentos sobre o impacto desses algoritmos.

Os bancos de dados utilizados como base para o desenvolvimento dos sistemas de IAs muitas vezes refletem preconceitos e desigualdades já existentes, o que acaba sendo reproduzido pelas decisões tomadas, como pode ser analisado recentemente, quando o The Bulimia Project, um grupo de conscientização sobre distúrbios alimentares, testou geradores de imagens de inteligência artificial, incluindo Dall-E 2, Stable Diffusion e Midjourney, para revelar como é a ideia dos programas de um físico “perfeito” em mulheres e homens.

De acordo com o resultado obtido, 40% das imagens mostravam mulheres loiras, 30% mulheres de olhos castanhos e mais de 50% tinham pele branca, enquanto quase 70% dos homens “perfeitos” tinham cabelos castanhos e 23% olhos castanhos. Semelhante às mulheres, a grande maioria dos homens tinha pele branca e quase metade tinha pelos faciais.

Muitos dos designs ainda apresentavam características quase caricatas, como os lábios carnudos, maçãs do rosto esculpidas e músculos superdefinidos, além de pele sem rugas e sem poros e narizes perfeitos. Todos os recursos altamente cobiçados e imitados usando cirurgia plástica e preenchimentos.

Mas as complicações dos dados já pré-concebidos com informações, valores e ideais possuem consequências nos mais diversos setores. O professor Moacir Ponti, do Instituto de Ciências Matemáticas e de Computação de São Carlos (ICMC) da USP, aponta que o problema está no desenvolvimento das inteligências artificiais por indivíduos que não possuem compreensão dessa possível desigualdade e no uso delas por usuários que não sabem como foram criadas.

O professor exemplifica: “Algoritmos na seleção de candidatos a emprego são treinados com base em currículos anteriores e, por isso, tendem a favorecer certos perfis e marginalizar outros”. Se o histórico de contratação passado for desigual, como a seleção de homens para cargos de chefia, como diretores, gerentes, juízes e superintendentes, e a seleção de mulheres para cargos como secretárias, enfermeiras e camareiras, “a IA tende a perpetuar esses padrões de forma automática e até mesmo intensificar a disparidade”, relata Ponti.

O ocorrido foi visto na empresa Amazon, que usava uma ferramenta de inteligência artificial para ajudar a equipe do RH a contratar profissionais, automatizando a busca por candidatos para empregos e realizando uma pré-seleção dos candidatos. O sistema analisava os currículos enviados, dando uma nota de 1 a 5 estrelas para cada, no mesmo esquema dos produtos vendidos na sua loja on-line.

A discriminação da ferramenta contra candidatas do sexo feminino no processo de seleção de novos funcionários acontecia porque ela foi criada em cima de padrões de currículos enviados para a empresa nos últimos dez anos. Na imensa maioria, esses currículos eram de homens, como acontece na maior parte da indústria de tecnologia, assim considerava os candidatos homens naturalmente mais aptos para as vagas.

Uma simples menção ao termo de mulheres no currículo era penalizada pela ferramenta e reduzia as chances das profissionais à vaga, “não pela ferramenta ser machista e sim por ter aprendido da forma errada”, informa Ponti.

Já Lívia Oliveira, professora de Ciência da Computação, diz que injustiças raciais podem surgir a partir do uso da inteligência artificial, principalmente no gerenciamento de sentenças judiciais. Ela comenta que a IA é muito mais rígida com pessoas negras do que com pessoas brancas. “Um juiz, ao inserir os dados de duas pessoas para calcular o tempo de encarceramento, atribuiria um valor muito menor para a pessoa branca em comparação à pessoa negra. Esse viés racial contribui para o encarceramento desproporcional de pessoas não brancas.”

Lívia também correlaciona o banco de dados e a estratificação social ao ChatGPT e explica como as IAs tendem a se fundamentar no ponto de vista dominante da sociedade. “O ChatGPT, ao ser questionado sobre quem construiu o avião, mencionaria os irmãos Wright, enquanto os brasileiros associariam a Santos Dumont, isso porque os irmãos Wright são figuras dos Estados Unidos, que têm o ponto de vista dominante nessa ferramenta.”

Ela continua, afirmando que esse tipo de uniformização do conhecimento de acordo com quem comanda as IA tem o poder de esmagar histórias e conclusões de minorias, privilegiando o ponto de vista majoritário.

Diante dessas questões, ambos os professores concordam que os programadores possuem uma obrigação ética e moral, pois são responsáveis por moldar sistemas que podem impactar a sociedade de maneira significativa. “É uma máxima entre os profissionais da computação que todos os modelos estão errados e por isso devem ser avaliados, reavaliados, testados e verificados”, relata Lívia.

Para ela, o profissional que trabalha dentro da ética deve testar falsos positivos e falsos negativos, identificar erros e os efeitos das decisões baseadas nos algoritmos. “O treinamento de IA não é rodar algoritmos, mas sim entender os seus dados e o impacto que podem causar, porque a compreensão deles e o treinamento adequado são cruciais para o desenvolvimento responsável da IA.”

 

Leia mais

  • ChatGPT ou a escatologia das máquinas. Artigo de Yuk Hui
  • “Há uma tecnodiversidade que foi marginalizada pela modernização”. Entrevista com Yuk Hui
  • IHU Cast – Yuk Hui e Tecnodiversidade: Pensando a questão da tecnologia de uma perspectiva intercultural
  • Em Yuk Hui, uma Filosofia da Tecnodiversidade
  • Inteligência Artificial e educação: uma mudança de paradigma. Artigo de Manuel Castells
  • Universidade: publicar ou perecer. “O mercenarismo irá substituir o mecenato se nós, os universitários, não reagirmos a tempo”, afirma Manuel Castells
  • Inteligência Artificial e julgamento algorítmico no judiciário: conquistas civilizatórias podem ser comprometidas. Entrevista especial com Ana Frazão
  • Inteligência artificial/ChatGPT. Uma perspectiva humanista. Entrevista especial com Marco Schorlemmer
  • “A inteligência artificial será como um novo módulo inconsciente do nosso cérebro”. Entrevista com Andy Clark
  • Inteligência artificial: um desafio sério. Artigo de Giuseppe Savagnone
  • A revolução da inteligência artificial transforma as pesquisas sobre o novo regime climático. Conferência com Sergio Marconi
  • “Em tempos de inteligência artificial, não queremos medir a precarização do trabalho nem seus efeitos”. Entrevista com Joan Benach
  • Inteligência artificial e estupidez natural. Artigo de Vito Mancuso
  • ChatGPT não é 'inteligência artificial'. É roubo
  • Inteligência artificial e alienação. Artigo de Mauro Luis Iasi
  • ChatGPT: carta aos meus alunos. Carta de Russel P. Johnson
  • ChatGPT não é 'inteligência artificial'. É roubo
  • O Google se lança na guerra da Inteligência Artificial
  • Riscos e preocupações em torno da inteligência artificial (IA). Artigo de Henrique Cortez
  • Da ficção científica à realidade: os novos dilemas éticos da Inteligência Artificial. Entrevista especial com João Cortese
  • Inteligência Artificial e meio ambiente. Artigo de Carlos Bocuhy
  • Depois da Inteligência Artificial. Especialistas debatem o tema na publicação ‘Cadernos IHU ideias’
  • ChatGPT contra o pensamento crítico. Entrevista com Noam Chomsky
  • Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”
  • O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
  • ChatGPT: “Comunismo 2.0 ou a destruição em massa da humanidade”. Comentário de Rodrigo Petronio
  • Máquinas de IA não são “alucinantes”. Mas seus criadores são. Artigo de Naomi Klein
  • “Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton
  • Pausar desenvolvimento de IA não é suficiente. “Desliguem tudo”, alerta um dos fundadores da área
  • Inteligência Artificial é uma ferramenta muito útil, mas não é inteligente. Entrevista especial com Walter Carnielli
  • Pioneiro da IA deixa Google e alerta para risco à humanidade
  • A inteligência artificial hackeia o sistema operacional da civilização humana. Artigo de Yuval Harari
  • O aviso de Stephen Hawking, em 2014, sobre a inteligência artificial
  • Papa: hoje existe o risco de dar vida à lógica das máquinas e dos dispositivos
  • A globalização do paradigma tecnocrático
  • “A inteligência artificial não é uma ameaça, mas, se não a usarmos bem, pode se tornar”. Entrevista com Fredi Vivas
  • A inteligência artificial e a espiral do caos. Artigo de Franco ‘Bifo’ Berardi
  • ChatGPT contra o pensamento crítico. Entrevista com Noam Chomsky
  • Éric Sadin: “O ChatGPT é um movimento civilizatório com profundas consequências antropológicas”
  • ChatGPT: “Comunismo 2.0 ou a destruição em massa da humanidade”. Comentário de Rodrigo Petronio
  • O ChatGPT tem alma? Uma conversa sobre ética católica e inteligência artificial com Blake Lemoine
  • Quais os limites do Chat GPT na Saúde?
  • ChatGPT: resta-nos habitar um cosmos de solidão. Comentário de Rodrigo Petronio
  • O algoritmo gosta do discurso de ódio, diz Duvivier: 'A informação pertence a corporações'
  • “É o século da solidão”, constata economista inglesa Noreena Hertz
  • A era dos coletivos de solidão. Artigo de Boaventura de Sousa Santos
  • A solidão na era das novas tecnologias de informação
  • 'Redes sociais deixam sociedade mais vulnerável'
  • ChatGPT, a heroína da Bayer? Artigo de Paolo Benanti
  • Especialistas em inteligência artificial pedem uma pausa de seis meses para a “corrida fora de controle” do ChatGPT
  • Bostificação, o futuro irresistível do ChatGPT
  • Chapação maquínica, alucinação estatística: pensar como o ChatGPT
  • Chomsky e o melodrama tecnofóbico. Artigo de Bruno Cava
  • ChatGPT, tecnologia e programadores. E o bicho-papão da automação
  • ChatGPT, o algoritmo que finge saber. Comentário de Bruno Cava
  • GPT-4, o algoritmo inexplicável e fechado. Artigo de Paolo Benanti
  • O homem tecnológico: protagonista ou vítima?
  • O que Noam Chomsky pensa a respeito da Inteligência Artificial do ChatGPT
  • As cinco perguntas sobre o sucesso do ChatGPT
  • ChatGPT: nem monstro, nem tábua de salvação
  • Castells: o que (não) penso sobre o ChatGPT
  • ChatGPT: entenda como funciona a inteligência artificial do momento - e os riscos que ela traz
  • ChatGPT. “Apesar da IA, ainda temos o monopólio da consciência”
  • O GPT-3 desafia a inércia acadêmica
  • Biopolítica algorítmica. Como as humanidades são impactadas e podem impactar a Inteligência Artificial. Entrevista especial com Virgilio Almeida
  • Inteligência Artificial e Saúde: para todos ou para quase ninguém?
  • Inteligência artificial democrática: software em vez da política? Artigo de Paolo Benanti
  • “A inteligência artificial está se tornando senciente”, avisa engenheiro do Google. E Big G o suspende
  • Dar uma ética à inteligência artificial: um desafio contado em livro
  • A inteligência artificial não precisa de inteligência: o pensamento de Luciano Floridi
  • “Ética da inteligência artificial”, novo livro de Luciano Floridi
  • A necessidade de uma algorética para enfrentar o desafio da inteligência artificial. Artigo de Paolo Benanti
  • É possível confiar na inteligência artificial?
  • A inteligência artificial pode nos ensinar a ser mais humanos?
  • Machine Intelligence: a inteligência artificial e a espionagem. Artigo de Paolo Benanti
  • Inteligência Artificial no Sul Global. Alguns comentários a Jack Qiu
  • “A inteligência artificial já faz parte da nossa cotidianidade.” Entrevista com Luciano Floridi

Notícias relacionadas

  • “A valorização do Centro Histórico com o uso social que se pode fazer do Cais Mauá não pode ser reduzida a ganhos econômicos”, diz o sociólogo.

    A cidade (rebelde) da modernidade tardia contra a cidade fordista-industrial. Entrevista especial com Milton Cruz

    LER MAIS
  • "Nossas cidades são insustentáveis". Entrevista especial com Luciana Ferrara

    LER MAIS
  • Mulheres recebem menos na maioria dos esportes. Enquanto Neymar embolsa em média R$ 900 mil por gol, Marta ganha R$ 12 mil

    Além da baixa representatividade nas gerências das federações esportivas, a carreira das atletas passa por obstáculos finance[...]

    LER MAIS
  • Político californiano admite derrota a líderes religiosos em ações judiciais contra LGBTs

    O senador estadual democrata Ricardo Lara, de Bell Gardens, Califórnia, decidiu retirar alguns dispositivos em seu projeto de lei[...]

    LER MAIS
  • Início
  • Sobre o IHU
    • Gênese, missão e rotas
    • Sala Ignacio Ellacuría e Companheiros
    • Rede SJ-Cias
      • CCIAS
      • CEPAT
  • Programas
    • Observasinos
    • Teologia Pública
    • IHU Fronteiras
    • Repensando a Economia
    • Sociedade Sustentável
  • Notícias
    • Mais notícias
    • Entrevistas
    • Páginas especiais
    • Jornalismo Experimental
    • IHUCAST
  • Publicações
    • Mais publicações
    • Revista IHU On-Line
  • Eventos
  • Espiritualidade
    • Comentário do Evangelho
    • Ministério da palavra na voz das Mulheres
    • Orações Inter-Religiosas Ilustradas
    • Martirológio Latino-Americano
    • Sínodo Pan-Amazônico
    • Mulheres na Igreja
  • Contato

Av. Unisinos, 950 - São Leopoldo - RS
CEP 93.022-750
Fone: +55 51 3590-8213
humanitas@unisinos.br
Copyright © 2016 - IHU - Todos direitos reservados